جریان داده چند ابری، جریان داده چند ابری

۱. مقدمه

b412875666fceda8.png

آخرین به‌روزرسانی: 2022-02-08

چرا به استریم چند ابری نیاز داریم؟

کسب‌وکارها به‌طور فعال به دنبال گسترش حجم کاری خود در چندین پلتفرم ابری هستند، زیرا مزایای متعددی در به‌کارگیری چندین ارائه‌دهنده ابری در گردش کار عملیاتی یک کسب‌وکار وجود دارد، مانند:

  • قفل شدن فروشنده
  • کاهش ریسک تداوم کسب‌وکار
  • وابستگی‌ها و اتکا به یک پشته فناوری

آنچه خواهید ساخت

در این آزمایشگاه کد، شما قصد دارید یک جریان داده چند ابری بین AWS و GCP با استفاده از Confluent Cloud راه‌اندازی کنید. شما:

  • یک کلاستر اختصاصی کافکا را در Confluent Cloud روی GCP راه‌اندازی کنید.
  • یک VPC peering بین Confluent Cloud و پروژه GCP خود تنظیم کنید تا بتوان از طریق یک شبکه خصوصی به آن دسترسی داشت.
  • یک تونل VPN بین پروژه AWS و پروژه GCP خود راه‌اندازی کنید تا منابع روی هر دو hyperscaler بتوانند به هم متصل شوند.
  • از طریق AWS به Confluent Kafka دسترسی پیدا کنید و با استفاده از Confluent Kafka Cloud، یک خط لوله جریان از AWS به GCP راه‌اندازی کنید.

آنچه یاد خواهید گرفت

  • نحوه تنظیم VPC peering بین Confluent Cloud Kafka و پروژه GCP شما.
  • نحوه راه اندازی تونل VPN بین پروژه های AWS و GCP.
  • نحوه دسترسی به Confluent Cloud میزبانی شده توسط GCP از پروژه AWS شما.

این آزمایشگاه کد بر ساخت جریان داده چند ابری متمرکز است. مفاهیم و بلوک‌های کد نامربوط نادیده گرفته شده‌اند و برای کپی و چسباندن ساده در اختیار شما قرار گرفته‌اند.

آنچه نیاز دارید

  • دسترسی به پروژه AWS
  • دسترسی به پروژه GCP
  • تجربه کار با GCP و AWS Cloud
  • اشتراک Confluent Kafka از GCP Marketplace.

۲. راه‌اندازی

اتصال VPN بین AWS و GCP را تنظیم کنید

  • این نسخه آزمایشی از VPC پیش‌فرض (asia-southeast1) در GCP و ng-vpc-103-mum (ap-south1) در AWS استفاده می‌کند.

eac371e8af07fc0c.png

c76e9c670e4f8cca.png

  • در AWS، درگاه مشتری و درگاه خصوصی مجازی (VPG) را ایجاد کنید. VPG را به VPC AWS متصل کنید.

55a075a6b951b5df.png

fe23f4315e9369ec.png

  • اتصال VPN سایت به سایت را در AWS ایجاد کنید.

4c59066457f3ff9.pnga2dde7c3e7cf82e9.png

  • فایل پیکربندی تونل ایجاد شده در AWS را دانلود کنید. انتخاب کنید
  • فروشنده: عمومی
  • پلتفرم: عمومی
  • نرم‌افزار: مستقل از فروشنده
  • نسخه آیک: Ikev2
  • VPN Gateway و VPN Tunnel را روی GCP ایجاد کنید.

8d167a30913a46e1.png

آدرس IP و کلید Ikev2 را از فایل پیکربندی AWS دانلود شده برای هر دو تونل ارائه دهید.

  • پس از تکمیل، تونل باید روی AWS و GCP فعال و در حال اجرا باشد.

baca51d151d7c40.png

ceefee82994ef2d4.png

نصب تونل اکنون کامل شده است.

  • یک بلوک CIDR که برای پیکربندی Confluent Cloud استفاده خواهد شد را انتخاب کنید. این را به عنوان یک مسیر ثابت در AWS به تونل VPN اضافه کنید.

219fa91dc84bd751.png

Confluent Kafka در بازار GCP

  • در بازار GCP در Confluent Kafka مشترک شوید.

380b8221724e91d7.png

  • به ابر Confluent وارد شوید و یک خوشه اختصاصی ایجاد کنید

۵۴۶۱۱bb3ba91a867.png

7e3b9fec07478fc5.png

  • شناسه پروژه GCP را به همراه جزئیات شبکه VPC برای peering ارائه دهید.

544ea2152de6d447.png

  • VPC Peering در انتهای GCP را با جزئیات شبکه خوشه‌ای Confluent Cloud ارائه شده تکمیل کنید.

a791c93028f46a10.png

  • خوشه ابری Confluent اکنون فعال و با GCP مرتبط است.

c9ebd43fab4a8db6.png

  • اتصال به خوشه Confluent را از GCP آزمایش کنید.
  • یک نمونه GCE تهیه کنید و پایتون ۳ را نصب کنید.
  • کلید کلاینت پایتون را در Confluent Cloud ایجاد کنید

969ce69a57fda7db.png

  • اسکریپت آزمایشی "producer.py" را از نمونه GCP اجرا کنید:

aaede917f462b5b9.png

  • اکنون، کدبیس نمونه را روی نمونه AWS دانلود کنید و اسکریپت "producer.py" را اجرا کنید تا اتصال ترکیبی به Confluent Cloud از GCP را آزمایش کنید.

94da3d8c20f8b234.png

۳. تبریک می‌گویم

تبریک می‌گویم، شما با موفقیت پلتفرم استریمینگ چند ابری بین منطقه‌ای Confluent Kafka خود را بین AWS و GCP ساختید.

آزمایشگاه‌های کد مفید**؟**

به برخی از این آزمایشگاه‌های کد نگاهی بیندازید...

مطالعه بیشتر